范数

Norm
范数是定义在向量空间上的一个函数，用于度量向量的大小或长度，将向量映射到非负实数。
范数属于数学和线性代数领域，特别是在优化问题、函数空间分析、机器学习中的正则化技术等方面。

L0 范数：即向量中非零元素的个数。

∥ x ∥_{0} = card (x)

L1 范数（曼哈顿范数）：即向量元素绝对值的和。

∥ x ∥_{1} = \sum_{i = 1}^{n} | x_{i} |

L2 范数（欧几里得范数或欧拉范数）：即向量元素平方和的平方根。

∥ x ∥_{2} = \sqrt{\sum_{i = 1}^{n} x_{i}^{2}}

L∞范数（最大范数或无穷范数）：即向量元素绝对值的最大值。

\begin{array}{r} ∥ x ∥_{\infty} = max (| x_{1} |, | x_{2} |, . . ., | x_{n} |) \end{array}

p-范数：当 $p$ 取不同的值时，可以得到不同的范数，如 $p = 1$ 时是 L1 范数， $p = 2$ 时是 L2 范数， $p \to \infty$ 时趋近于 L∞范数。

∥ x ∥_{p} = {(\sum_{i = 1}^{n} | x_{i} |^{p})}^{1 / p}

Frobenius 范数：用于度量矩阵的大小，是矩阵元素平方和的平方根。

∥ A ∥_{F} = \sqrt{\sum_{i = 1}^{m} \sum_{j = 1}^{n} | a_{i j} |^{2}}

核范数：核范数是矩阵奇异值的和，但不包括零奇异值。

∥ A ∥_{*} = \sum_{λ > 0} λ

马氏范数：其中 $M$ 是一个正定矩阵，马氏范数可以根据不同的 $M$ 来衡量向量的大小。

∥ x ∥_{M} = \sqrt{x^{T} M x}

切比雪夫范数：即向量在任意维度上的绝对值的最大值。

∥ x ∥_{Chebyshev} = max_{i} | x_{i} |

每种范数都有其独特的性质和应用场景。例如，L1 范数可以导致稀疏解，常用于特征选择；L2 范数则常用于最小二乘问题；而核范数则在机器学习中的正则化中用来防止模型过拟合。